The number of international benchmarking competitions is steadily increasing in various fields of machine learning (ML) research and practice. So far, however, little is known about the common practice as well as bottlenecks faced by the community in tackling the research questions posed. To shed light on the status quo of algorithm development in the specific field of biomedical imaging analysis, we designed an international survey that was issued to all participants of challenges conducted in conjunction with the IEEE ISBI 2021 and MICCAI 2021 conferences (80 competitions in total). The survey covered participants' expertise and working environments, their chosen strategies, as well as algorithm characteristics. A median of 72% challenge participants took part in the survey. According to our results, knowledge exchange was the primary incentive (70%) for participation, while the reception of prize money played only a minor role (16%). While a median of 80 working hours was spent on method development, a large portion of participants stated that they did not have enough time for method development (32%). 25% perceived the infrastructure to be a bottleneck. Overall, 94% of all solutions were deep learning-based. Of these, 84% were based on standard architectures. 43% of the respondents reported that the data samples (e.g., images) were too large to be processed at once. This was most commonly addressed by patch-based training (69%), downsampling (37%), and solving 3D analysis tasks as a series of 2D tasks. K-fold cross-validation on the training set was performed by only 37% of the participants and only 50% of the participants performed ensembling based on multiple identical models (61%) or heterogeneous models (39%). 48% of the respondents applied postprocessing steps.

最近，Diffenderfer和Kailkhura提出了一种新的范式，仅通过修剪和量化随机加权的全精度神经网络，以学习紧凑而高度准确的二进制神经网络。但是，这些多质票（MPTS）的准确性对最佳的修剪比率高度敏感，这限制了其适用性。此外，原始实施没有获得任何培训或推理速度益处。在本报告中，我们讨论了克服这些局限性的几项改进。我们通过在CIFAR-10上进行实验来展示提出的技术的好处。

在没有解密的情况下对加密数据进行神经网络推断是一种流行的方法，可以使隐私神经网络（PNET）作为服务。与用于机器学习的常规神经网络相比，PNET需要额外的编码，例如量化精确数字和多项式激活。加密输入还引入了新颖的挑战，例如对抗性鲁棒性和安全性。据我们所知，我们是第一个研究问题，包括（i）PNET是否比常规神经网络对对抗性输入更强大？ （ii）如何在没有解密的情况下设计强大的PNET？我们建议使用PNET攻击来生成黑框对抗示例，这些示例可以成功攻击目标和非目标方式。攻击结果表明，需要改进针对对抗输入的PNET鲁棒性。这不是一项琐碎的任务，因为PNET模型所有者无法访问输入值的明文，这阻止了现有检测和防御方法的应用，例如输入调整，模型归一化和对抗性培训。为了应对这一挑战，我们提出了一种新的快速准确的噪声插入方法，称为RPNET，以设计强大的私人神经网络。我们的综合实验表明，PNET-ITSTACK比先前的工作减少了至少$ 2.5 \ times $的查询。我们从理论上分析了我们的RPNET方法，并证明RPNET可以降低$ \ sim 91.88 \％$ $攻击成功率。

由于深度神经网络的开发，尤其是对于最近开发的无监督的JND代模型，对公正的显着差异（JND）建模做出了重大改进。但是，他们有一个主要的缺点，即在现实世界信号域而不是在人脑中的感知结构域中评估了生成的JND。当在这两个域中评估JND时，存在明显的差异，因为在现实世界中的视觉信号在通过人类视觉系统（HVS）传递到大脑之前已编码。因此，我们提出了一个受HVS启发的信号降解网络进行JND估计。为了实现这一目标，我们仔细分析了JND主观观察中的HVS感知过程，以获得相关的见解，然后设计受HVS启发的信号降解（HVS-SD）网络，以表示HVS中的信号降解。一方面，知识渊博的HVS-SD使我们能够评估感知域中的JND。另一方面，它提供了更准确的先验信息，以更好地指导JND生成。此外，考虑到合理的JND不应导致视觉注意力转移的要求，提出了视觉注意力丧失以控制JND的生成。实验结果表明，所提出的方法实现了SOTA性能，以准确估计HVS的冗余性。源代码将在https://github.com/jianjin008/hvs-sd-jnd上找到。

视觉变压器（VIT）正在出现，并且在计算机视觉任务中的准确性显着提高。但是，它们的复杂架构和巨大的计算/存储需求对新硬件加速器设计方法施加了紧迫的需求。这项工作提出了基于提议的混合速度量化的FPGA感知自动VIT加速框架。据我们所知，这是探索模型量化的第一个基于FPGA的VIT加速框架。与最先进的VIT量化工作（仅无硬件加速的算法方法）相比，我们的量化在相同的位宽度下可实现0.47％至1.36％的TOP-1精度。与32位浮点基线FPGA加速器相比，我们的加速器在框架速率上的提高约为5.6倍（即56.8 fps vs. 10.0 fps），对于DeitBase的ImagEnet数据集，精度下降了0.71％。

最近，传输位更少的高质量视频会议已成为一个非常炎热且充满挑战的问题。我们提出了FAIVCONF，这是一个基于有效的神经人类面部生成技术的特殊设计的视频会议视频压缩框架。FAIVCONF汇集了几种设计，以改善实际视频会议场景中的系统鲁棒性：面部交换，以避免在背景动画中进行工件；面部模糊以减少传输位量并保持提取的面部地标的质量；面部视图插值的动态源更新，以适应各种头部姿势。我们的方法在视频会议上实现了显着的比率降低，与H.264和H.265编码方案相比，在相同的位速率下可提供更好的视觉质量。

在许多环境中（来自人体肠道到海洋生态系统）的混合群落发现了生物体，并且可以对人类健康和环境产生深远的影响。 Metagenomics通过高通量测序研究这种群体的基因组材料，得到用于随后分析的DNA子序列。标准工作流程中称为啤酒的基本问题是发现与未知构成生物相关的基因组子组的群集。随后的固有噪声，需要对它们施加的各种生物限制以及偏斜簇大小分布加剧了这种无监督的学习问题的难度。在本文中，我们使用曲线图提出了一种新的配方，其中节点是子序列的，并且边缘代表同意信息。此外，我们模拟了提供了关于不能聚集在一起的节点的异细信号的生物限制。我们通过开发（i）图表示学习的新算法来解决融合问题，这些算法保留了奇妙关系和基于异语的基于约束的基于曲线的图形聚类方法，该方法解决了串簇大小分布的问题。在实际和合成数据集上的广泛实验证明我们的方法称为Repbin，优于各种各样的竞争方法。我们的约束图形表示学习和聚类方法，其在其他域中也可以是有用的，也可以推进距离偏心神经融合和图形表示学习的最先进。

重量修剪是一种有效的模型压缩技术，可以解决在移动设备上实现实时深神经网络（DNN）推断的挑战。然而，由于精度劣化，难以利用硬件加速度，以及某些类型的DNN层的限制，难以降低的应用方案具有有限的应用方案。在本文中，我们提出了一般的细粒度的结构化修剪方案和相应的编译器优化，适用于任何类型的DNN层，同时实现高精度和硬件推理性能。随着使用我们的编译器优化所支持的不同层的灵活性，我们进一步探讨了确定最佳修剪方案的新问题，了解各种修剪方案的不同加速度和精度性能。两个修剪方案映射方法，一个是基于搜索，另一个是基于规则的，建议自动推导出任何给定DNN的每层的最佳修剪规则和块大小。实验结果表明，我们的修剪方案映射方法，以及一般细粒化结构修剪方案，优于最先进的DNN优化框架，最高可达2.48 $ \ times $和1.73 $ \ times $ DNN推理加速在CiFar-10和Imagenet DataSet上没有准确性损失。

在神经形态计算中，人工突触提供了一种基于来自神经元的输入来设置的多重导电状态，类似于大脑。可能需要超出多重权重的突触的附加属性，并且可以取决于应用程序，需要需要从相同材料生成不同的突触行为。这里，我们基于使用磁隧道结和磁畴壁的磁性材料测量人造突触。通过在单个磁隧道结下面的畴壁轨道中制造光刻槽口，我们实现了4-5个稳定的电阻状态，可以使用自旋轨道扭矩电气可重复控制。我们分析几何形状对突触行为的影响，表明梯形装置具有高可控性的不对称性重量，而直线装置具有较高的随机性，但具有稳定的电阻水平。设备数据被输入到神经形态计算模拟器中以显示特定于应用程序突触函数的有用性。实施应用于流式的时尚 - MNIST数据的人工神经网络，我们表明梯形磁突出可以用作高效在线学习的元塑功能。为CiFar-100图像识别实施卷积神经网络，我们表明直流突触由于其电阻水平的稳定性而达到近乎理想的推理精度。这项工作显示多重磁突触是神经形态计算的可行技术，并为新兴人工突触技术提供设计指南。

由于其在捕获地区和翻译不变性的能力，卷积神经网络（CNNS）已经主导了计算机愿景。最近，已经提出了许多视觉变压器架构，他们表现出了有希望的表现。视觉变压器中的一个关键组件是在长距离依赖性建模中的CNN具有完全连接的自我关注。然而，由于当前密集的自我关注使用所有图像斑块（令牌）来计算注意力矩阵，因此它可能会忽略图像斑块的局部性，并且涉及嘈杂的令牌（例如，杂物背景和遮挡），导致慢训练过程和潜在的劣化表现。为了解决这些问题，我们提出了k $ -nn注意促进视觉变压器。具体而言，而不是涉及所有引起注意矩阵计算的令牌，我们只能从每个查询的键中选择顶级$类似的标记来计算注意图。提议的$ k $ -nn注意自然地继承了CNN的当地偏见而不引入卷积操作，因为附近的代币往往比其他代币更相似。此外，$ k $ -nn注意允许探索远程相关性，同时通过从整个图像中选择最相似的标记来筛选无关的标记。尽管其理论上和经验，我们验证了它，即美元 - 不关注的是，在加快输入令牌的训练和蒸馏噪声方面是强大的。通过使用11种不同的视觉变压器架构进行了广泛的实验，以验证所提出的$ -NNN注意力可以与任何现有的变压器架构合作，以提高其预测性能。